Trước năm 1895, khu vực ngày nay là Gyeongsangnam-do là một phần của tỉnh Gyeongsang, một trong Tám tỉnh của Triều Tiên trong thời kỳ triều đại Triều Tiên. Năm 1895, phía nam Gyeongsang đã được thay bằng các huyện Jinju ở phía tây và Dongnae (ngày nay là Busan) ở phía đông. Năm 1896, hai huyện được sáp nhập để tạo thành Gyeongsangnam-do.

Tỉnh lỵ nguyên là Jinju, sau đó được dời về Busan năm 1925. Năm 1948, Gyeongsangnam-do đã trở thành một phần của Hàn Quốc. Năm 1963, Busan được tách khỏi Gyeongsangnam-do để thành một thành phố trực thuộc trung ương (Jikhalsi). Năm 1983, tỉnh lỵ dời từ Busan đến Changwon. Năm 1995, trở thành một quảng vực thị (Gwangyeoksi). Năm 1997, Ulsan được tách khỏi Gyeongsangnam-do thành một quảng vực thị.

Năm 1982, sĩ quan cảnh sát Woo Bum-kon đã giết người hàng loại, làm 58 người chết, kể cả ông, làm bị thương 35 người ở Gyeongsangnam-do.